Skip to main content

¿NVIDIA IA Enterprice?

Descripción:
NVIDIA AI Enterprise es una plataforma de software en la nube que acelera la ciencia de datos y el desarrollo de IA generativa. Ofrece rendimiento, seguridad y soporte a nivel empresarial, facilitando la transición de prototipos a producción. Página oficial.

¿Qué ofrece?​

  • Catálogo de API de NVIDIA
    Explora y prueba modelos optimizados de NVIDIA sin costo inicial. Incluye casos de uso como grandes modelos de lenguaje, búsqueda semántica y visual, genómica y avatares. Ideal para crear prototipos rápidamente y luego implementarlos en sistemas propios.

  • Detección de Vulnerabilidades con IA Generativa
    NVIDIA utiliza IA generativa, con herramientas como NIM y Morpheus, para detectar vulnerabilidades en software y mejorar la seguridad dentro de NVIDIA AI Enterprise.

  • Recuperación Aumentada (RAG)
    El operador RAG de NVIDIA simplifica la implementación de aplicaciones RAG en producción, optimizando los flujos de trabajo de IA sin necesidad de modificar el código.

¿Qué es NIM?​

NVIDIA NIM es un conjunto de microservicios fáciles de usar para acelerar la implementación de modelos en cualquier nube o centro de datos, manteniendo los datos seguros.

  • Compatibilidad Perfecta con Bibliotecas Populares (OpenAI, Meta, Azure)

Pasos

  • Implemente NIM para su modelo con un solo comando. También puede ejecutar NIM fácilmente con modelos optimizados.
  • Ejecuta Inferencia. Ponga en funcionamiento NIM con el motor de ejecución óptimo basado en su infraestructura acelerada por NVIDIA.
  • Construya. Los desarrolladores pueden integrar puntos finales NIM autoalojados con solo unas pocas líneas de código.

Precio​

Dependerá de la cantidad de solicitudes necesarias y solo puede ser visualizado desde tu perfil de NVIDIA AI. Comentario de un foro de NVIDIA sobre los precios Foro.

¿Qué se puede hacer?​

Al ser una herramienta para mejorar la respuesta y el control de modelos, NVIDIA AI Enterprise permite trabajar con una variedad de modelos como OpenAI, Meta, Copilot y algunos específicos de NVIDIA. Entre las funcionalidades destacan:

  • Texto
  • Chat
  • Bots
  • Visión
  • Creación de imágenes

¿Qué modelos ofrece para desarrollo?​

NVIDIA ofrece una página para probar algunos modelos, tanto propios como de terceros, potenciados por máquinas mejoradas. Puedes probarlos aquí o ver la lista completa aquí.

Descripción General​

  • Large Language Models
    Realizan tareas de generación de texto como respuestas a preguntas, resúmenes, razonamiento y generación de código.

  • Retrieval Models
    Mejoran la recuperación de preguntas y respuestas de texto, con una precisión aumentada al reordenar posibles resultados.

  • Visual Models
    Incluyen técnicas avanzadas de síntesis de imágenes y videos, como la Destilación de Difusión Adversaria y modelos de difusión latente.

  • Multimodal
    Integra comprensión visual y textual para tareas como análisis de imágenes y generación de texto y código.

  • Healthcare Models
    APIs de IA para descubrimiento de fármacos, análisis genómico y procesamiento de imágenes médicas.

  • Optimización de Rutas
    Optimiza rutas logísticas para problemas de enrutamiento de vehículos, soportando decisiones dinámicas basadas en datos.

  • Modelos de Simulación Climática
    Incluye FourCastNet para realizar pronósticos meteorológicos rápidos y de alta precisión.

Aprendizaje​

Laboratorios​

NVIDIA ofrece laboratorios para profundizar en el uso óptimo de sus modelos.

Laboratorios

  • Experiencia Práctica
    Accede a laboratorios guiados que abarcan desde la optimización de infraestructura hasta la implementación de aplicaciones.

  • Infraestructura Disponible
    Realiza pruebas y prototipos en infraestructura disponible en Equinix durante dos semanas.

  • Asistencia de Expertos
    Avanza a tu propio ritmo con el soporte de expertos de NVIDIA.

  • Decisiones Confiables
    NVIDIA LaunchPad te ofrece la confianza para tomar decisiones de diseño y compra.

¿Cómo implementar?​

Servicios en Marketplaces​

Puedes acceder a NVIDIA AI Enterprise a través de los siguientes proveedores:

Tarifas Verificadas 6/NOV/2024

Google

img

Amazon

img

Azure

img

Prueba local de modelos​

Puedes hacer pruebas locales usando el GitHub de NVIDIA si tienes el hardware necesario.

El repositorio y la página aquí.

img

Arquitectura de NVIDIA​

Puedes usar NIM de NVIDIA. Para eso necesitas un Bearer Token.

Si haces clic en getApi, puedes obtenerlo.

img

Una vez que tengas tu token, podrás usarlo en diferentes ejemplos, como algunos modelos.

NODE JS

Un ejemplo es este yi-large:

npx api install "@nim/v1.0#133glxj9jy2m"

Esto instalará el NIM de manera local para su uso.

import nim from '@api/nim';

nim.create_chat_completion_v1_chat_completions_post({
  model: '01-ai/yi-large',
  messages: [{content: 'I am going to Paris, what should I see?', role: 'user'}],
  temperature: 0.2,
  top_p: 0.7,
  frequency_penalty: 0,
  presence_penalty: 0,
  max_tokens: 1024,
  stream: false,
  stop: ['string']
})
  .then(({ data }) => console.log(data))
  .catch(err => console.error(err));

Nota: La prueba no se pudo realizar porque el servicio solo está disponible para correos con dominio de empresa.